सिर्फ छह दिन में, प्रतिभागियों ने Anthropic के AI मॉडल Claude3.5 की सभी सुरक्षा उपायों को सफलतापूर्वक दरकिनार कर दिया, यह सफलता AI सुरक्षा की चर्चा में नए दृष्टिकोण लाई। पूर्व OpenAI संरेखण टीम के सदस्य, जो अब Anthropic में हैं, Jan Leike ने X प्लेटफॉर्म पर घोषणा की कि एक प्रतिभागी ने सभी आठ सुरक्षा स्तरों को सफलतापूर्वक तोड़ दिया। यह सामूहिक प्रयास लगभग 3,700 घंटे के परीक्षण और प्रतिभागियों की 300,000 संदेशों को शामिल करता है। हालाँकि, चुनौती देने वाले